Tuy là Hoa kiều sang Việt Nam lập nghiệp, lại được chính phủ thực dân trọng dụng ban thưởng, nhưng cha Cao Minh Thạnh của ông luôn ủng hộ cho phong trào độc lập, nhiều lần tài trợ cho tổ chức Việt Nam Quang Phục Hội, một tổ chức đấu tranh đòi độc lập của chí sĩ Phan Bội Châu và Kỳ Ngoại Hầu Cường Để. Những hoạt động của cha ông ít nhiều ảnh hưởng đến các con. Trong công điện số 331-S ngày 5 tháng 12 năm 1926 gởi Giám đốc Tổng nha Mật thám Đông Dương, trùm mật thám Nam Kỳ là Paul Arnoux bảo rằng họ Cao là một gia đình chống Pháp (famille anti-française).[3]

Chiến tranh thế giới thứ nhất bùng nổ, ông đăng ký làm thông ngôn trong một đơn vị lính thợ sang Pháp. Tại Pháp, ông nhiều lần liên lạc với Tổng liên đoàn Lao động Pháp nhờ trợ giúp bênh vực quyền lợi lính thợ Việt Nam.

Sau khi Chiến tranh thế giới thứ nhất kết thúc, ông về nước một thời gian ngắn để thọ tang cha. Năm 1920, ông lại trở sang Pháp, theo học ngành Canh nông, đồng thời tham gia sinh hoạt chính trị trong nhiều tổ chức xã hội Pháp. Ông cũng có nhiều tiếp xúc các thủ lĩnh công đoàn, các chính khách cánh tả Pháp, tham gia diễn thuyết để dân Pháp biết đúng về Việt Nam. Cũng như cha mình, ông có nhiều liên hệ với các chí sĩ Việt Nam tại Pháp như Phan Chu Trinh, Phan Văn Trường, Nguyễn Ái Quốc.

Tháng 9 năm 1922, ông về nước, kế tục sự nghiệp chiêu dân khai khẩn của cha mình, nhanh chóng trở thành một đại phú hộ có uy tín trong vùng. Ông cũng tham gia viết bài cho báo La Tribune indigène (Diễn đàn bản xứ) một thời gian, với bút danh Sơn Kỳ Giang, thể hiện quan điểm chống thực dân, tán thành chủ trương đòi quyền bình đẳng của các tư sản bản xứ. Có lẽ thời gian này ông đã có những quan hệ với một nhà báo nổi tiếng là Nguyễn Phan Long.

Tháng 6 năm 1925, chí sĩ Phan Chu Trinh về Sài Gòn. Với tư cách là một người quen cũ, ông thường xuyên tiếp xúc với cụ Phan tại khách sạn Bá Huê Lầu. Ông cũng tham dự hai buổi diễn thuyết của cụ Phan là "Đạo đức và luân lý Đông Tây" (19 tháng 11 năm 1925) và "Quân trị Chủ nghĩa và Dân trị Chủ nghĩa" (27 tháng 11 năm 1925) tại Sài Gòn.

Ngày 21 tháng 3 năm 1926, ông tham dự cuộc mít-tinh quy tụ khoảng 3.000 người tại Vườn Xoài, xóm Lách trên đường Lanzarotte, Sài Gòn để phản đối thực dân Pháp đàn áp nhà báo Trương Cao Động. Trên đường về, ông cùng nhiều người bị bắt đưa về bót Catinat. Tuy nhiên, do không có bằng chứng cụ thể, cũng như sự vận động của báo giới chống thực dân, chính quyền Nam Kỳ buộc phải trả tự do cho ông sau 3 ngày giam giữ.

Ngày 12 tháng 11 năm 1926, ông quy tụ một số bạn đồng chí, thành lập Đông Dương Lao động Đảng tại Sài Gòn, làm chánh đảng trưởng, và cho ra đời 2 tờ báo là L’Ère Nouvelle (Kỷ nguyên mới) và Nhựt Tân Báo làm cơ quan ngôi luận của Đảng. Do lập trường chống thực dân rất rõ nên vào giữa năm 1929, chính quyền Nam Kỳ ra lệnh đóng cửa 2 tờ báo, giải tán Đông Dương Lao động Đảng. Bản thân ông bị trục xuất khỏi Sài Gòn và buộc quản thúc tại gia (Bạc Liêu) một thời gian vì tội "phá rối chính trị an".[4]

Năm 1930, ông được bầu vào Hội đồng Quản hạt Nam Kỳ và nhiều lần đấu tranh đòi quyền lợi cho người bản xứ. Tuy nhiên, chỉ vài năm sau thì ông rút khỏi Hội đồng vì nhận ra đấu tranh ở nghị trường không mang lại kết quả.